Đầu năm 2007, ông được điều động về làm Thành ủy viên Thành ủy Thành phố Hồ Chí Minh, Bí thư Quận ủy Quận 2. Ngày 16 tháng 1 năm 2009, ông được điều động về tham gia Ban Chấp hành, Ban Thường vụ Tỉnh ủy tỉnh Bến Tre, giữ chức Phó bí thư Tỉnh ủy.[7] Ngày 19 tháng 10 năm 2010, ông được bầu làm Bí thư Tỉnh ủy Bến Tre.[2]

Tại Đại hội Đại biểu Đảng Cộng sản Việt Nam khóa XI, ông được bầu làm Ủy viên Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam khoá XI.

Tháng 7 năm 2013, ông được bầu giữ chức Chủ tịch Hội đồng nhân dân tỉnh Bến Tre.[8]

Chiều ngày 5 tháng 3 năm 2015, Ban Thường vụ Tỉnh ủy triệu tập hội nghị Ban Chấp hành Đảng bộ tỉnh Bến Tre khóa IX (đột xuất) đã tiến hành bầu ông Võ Thành Hạo - Phó Bí thư Tỉnh ủy, Chủ tịch UBND tỉnh giữ chức vụ Bí thư Tỉnh ủy (nhiệm kỳ 2010-2015) thay cho ông Nguyễn Thành Phong được Ban Bí thư Trung ương Đảng điều động nhận nhiệm vụ mới. 

Ngày 25 tháng 3 năm 2015, Bộ Chính trị đã ra Quyết định điều động ông thôi giữ chức Bí thư Tỉnh ủy Bến Tre để tham gia Ban Chấp hành Đảng bộ Thành phố Hồ Chí Minh, nhiệm kỳ 2010 – 2015, tham gia Ban Thường vụ Thành ủy Thành phố Hồ Chí Minh và giữ chức Phó Bí thư Thành ủy Thành phố Hồ Chí Minh, nhiệm kỳ 2010 – 2015.[9]

Ngày 11/12/2015, theo đoàn thư ký, với 80/83 phiếu của đại biểu (85,1% trên tổng số 94 đại biểu HĐND Thành phố Hồ Chí Minh) ông Nguyễn Thành Phong - Phó Bí thư Thành ủy Thành phố Hồ Chí Minh đã được bầu làm Chủ tịch UBND Thành phố Hồ Chí Minh nhiệm kỳ 2011-2016.[10]

Sáng 24/12/2015, Phó Thủ tướng Nguyễn Xuân Phúc đã trao quyết định phê chuẩn kết quả bầu Chủ tịch UBND Thành phố Hồ Chí Minh nhiệm kỳ 2011-2016 đối với ông Nguyễn Thành Phong - Ủy viên Trung ương Đảng, Phó Bí thư Thành ủy.[11]

Tại Đại hội Đại biểu Đảng Cộng sản Việt Nam khóa XII, ông tiếp tục được bầu làm Ủy viên Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam khoá XII.

Chiều 28/6/2016, 100% đại biểu có mặt (102 đại biểu) đã bỏ phiếu bầu ông Nguyễn Thành Phong tái đắc cử Chủ tịch UBND Thành phố nhiệm kỳ 2016-2021 tại kỳ họp thứ nhất HĐND TP khóa IX.[12]